Cross-Day Compatibility of Daily Item Embeddings: An Empirical Study of Alignment, Scale Management, and CTR Adaptation
每日物品Embedding跨日兼容性:对齐、尺度管理与CTR适应实证研究
🧭 Embedding跨日对齐与尺度管理 ★ 深度解读
LY Corporation
实证对比48种配置,发现warm start + 全局尺度重缩放将跨日GAUC提升4.0%,下游CTR编码器可进一步对齐残差漂移
📌 工作参考价值(4 点)
- 每日更新 item embedding 的团队:优先评估 warm start + 每日全局 rescale(warm_norm),它把跨日 norm 漂移从 +102.5% 压到 +8.2%,并取得最高 GAUC +4.0%;若无法维护 state,先上 OP 对齐,保留 cosine 检索排序且 GAUC +2.6%。
- 评估 embedding 质量不要只看 recall:XSimGCL recall 高出 Word2Vec 76.4%,但 GAUC 反而 -0.5%;必须联合 GAUC/LogLoss 和检索指标,cosine/L2 只适合做漂移监控。
- 在 CTR 模型里加一个共享 item encoder(降维)而非直接接原始 embedding,可以进一步吸收跨天残差;对照 random projection / SVD / untrained encoder 能诊断是否真的学到跨版本对齐。
- 工程上先以 OP 为低成本基线,再用 warm_norm 做 A/B;注意 warm_norm 的 scale 管理通过后续训练动态生效,不是简单最终归一化。